Réunion du 16-11-2021

De OSWiki
Aller à la navigation Aller à la recherche

Bientôt la traduction

Introduction

[11:00] Vincent.Sylvester @hg.zetaworlds.com:8002 : J'ai entendu des rumeurs sur la disparition de cmake, mais je ne suis pas sûr que ce soit vrai.
[11:00] Vincent.Sylvester @hg.zetaworlds.com:8002 : les viewers ne l'utilisent-ils pas encore ?
[11:00] Andrew Hellershanks : Bonjour à tous.
[11:00] Gavin.Hird @grid.xmir.org:8002 : Je ne peux pas dire que j'ai vu cmake  décliner en ce moment.
[11:01] Gavin.Hird @grid.xmir.org:8002 : je viens de le mettre à jour il y a 2 jours.
[11:01] Gavin.Hird @grid.xmir.org:8002 : Salut Andrew
[11:01] Vincent.Sylvester @hg.zetaworlds.com:8002 : quelque chose à propos d'une mise à jour qui casse quelque chose, je l'ai juste entendu en passant, mais je n'ai aucune idée des détails.
[11:01] Vincent.Sylvester @hg.zetaworlds.com:8002 : les dépendances sont toujours gênantess.
[11:01] Gavin.Hird @grid.xmir.org:8002 : peut-être, IDK
[11:01] Vincent.Sylvester @hg.zetaworlds.com:8002 : Je me souviens avoir essayé de  compiler FS et d'être bloqué en essayant de trouver la version spécifique de python dont il a besoin.
[11:02] Selby.Evans @grid.kitely.com:8002 : bonjour à tous.
[11:02] Ubit Umarov : les mises à jour des outils linux cassent toujours des choses.
[11:02] Ubit Umarov : salut selby.Evans
[11:03] Ubit Umarov : à un moment donné, il faudrait spécifier la version exacte de gcc pour compiler un programme, en particulier pour le noyau linux.

Tests des moteurs de scripts

X :XEngine Y:YEngine

[11:03] Vincent.Sylvester @hg.zetaworlds.com:8002 : En parlant de casser, j'ai regardé les tests ScriptEngine cassés cette semaine, tous sauf trois semblent fonctionner ... plus ou moins.
[11:04] Vincent.Sylvester @hg.zetaworlds.com:8002 : J'ai copié le truc de X vers Y, j'ai dû ajuster légèrement deux d'entre eux, mais maintenant ils passent aussi.
[11:04] Ubit Umarov : bien, c'est une chose, les tests de script devraient être indépendants du moteur.
[11:04] Ubit Umarov : bien sûr, ils ne peuvent pas l'être car les moteurs sont différents...
[11:04] Ubit Umarov : mais ils devraient l'être.
[11:05] Cuga.Rajal @rajal.org:9000 : Je ne suis pas encore passé de X à Y. Dois-je le faire ?
[11:05] Vincent.Sylvester @hg.zetaworlds.com:8002 : Ce sont les mêmes tests, tout ce que j'ai fait jusqu'à présent, c'est de modifier les paramètres de configuration qu'ils définissent afin qu'ils chargent le bon moteur à tester.
[11:05] Vincent.Sylvester @hg.zetaworlds.com:8002 : Petit changement dans les tests de croisement pour omettre l'événement de changement qui est déclenché au redémarrage de la région puisque dans Y cela fonctionne évidemment correctement alors que dans X cela ne se déclenche pas.
[11:05] Ubit Umarov : certains ont probablement  échoué parce qu'ils étaient fondés sur de mauvaises hypothèses.
[11:06] Ubit Umarov : le changement est déclenché au démarrage de la région ?
[11:06] Jagga Meredith : Je suis heureux avec Yengine
[11:06] Ubit Umarov : Je veux dire que la région a changé ?
[11:06] Vincent.Sylvester @hg.zetaworlds.com:8002 : Les deux que je n'arrive pas à faire fonctionner sont étranges, les erreurs n'ont pas vraiment de sens pour moi pour le moment, mais ce qu'ils testent n'est pas non plus très important.
[11:07] Ubit Umarov : sur notre Jenkins, j'ai désactivé beaucoup de tests.
[11:07] Ubit Umarov : certains parce qu'ils sont simplement mauvais.
[11:07] Ubit Umarov : d'autres pour gagner du temps
[11:07] Vincent.Sylvester @hg.zetaworlds.com:8002 : Ce qui se déclenche est 0x400 qui est le redémarrage de la région, je pense que c'est à prévoir étant donné que la scène est configurée et le script rezze pratiquement instantanément sans attendre donc je suppose qu'il se heurte à cela d'une manière ou d'une autre.
[11:07] Ubit Umarov : en l'état, cette boîte prend environ 5 minutes pour tout faire.
[11:07] Ubit Umarov : je veux dire faire la compilation et le sous-ensemble actuel de tests.
[11:08] Ubit Umarov : le dimanche, cela peut prendre 10 heures :p
[11:08] Vincent.Sylvester @hg.zetaworlds.com:8002 : Ce qui est intéressant, c'est comment dans vscode beaucoup de tests échouent alors qu'ils fonctionnent bien sur Jenkins.
[11:08] Ubit Umarov : c'est quoi vscode ?
[11:08] Ubit Umarov: :p
[11:08] Vincent.Sylvester @hg.zetaworlds.com:8002 : Pas sûr qu'il y ait une différence de version ou une dépendance du système à blâmer ici.
[11:09] Vincent.Sylvester @hg.zetaworlds.com:8002 : Je pense que c'est encore tout Nunit 264
[11:09] Ubit Umarov : certains tests ont des dépendances temporelles.
[11:09] Vincent.Sylvester @hg.zetaworlds.com:8002 : Je soupçonne que cela joue dans cette différence de timing et de dépendance non prise en compte.
[11:10] Vincent.Sylvester @hg.zetaworlds.com:8002 : Principalement sur les tests complexes qui sont encore un peu difficiles à lire, heureusement la plupart des tests du moteur de script sont assez simples donc les corriger n'a pas été difficile.
[11:10] Ubit Umarov : les tests auront besoin d'une révision profonde
[11:10] Ubit Umarov : certains ont été mal faits dès le départ, d'autres sont devenus obsolètes.
[11:11] Ubit Umarov : tous sur une ancienne version de nunit aussi
[11:11] Ubit Umarov : mais certains ont détecté quelques une de mes erreurs... donc certains sont utiles.
[11:11] Vincent.Sylvester @hg.zetaworlds.com:8002 : Je veux dire que la façon dont certains bugs sont arrivés sans qu'un test ne les détecte jamais en témoigne, mais il n'est pas vraiment facile d'en écrire étant donné la nature abstraite dont  cela fonctionnement.
[11:12] Vincent.Sylvester @hg.zetaworlds.com:8002 : Comme faire des trous dans un oignon
[11:12] Ubit Umarov : les tests sont une chose complexe.
[11:13] Ubit Umarov : maintenant tous profitent d'internet et des mises à jour automatiques, transformant l'utilisateur final en testeur.
[11:13] Ubit Umarov : certains font même payer les utilisateurs pour tester, sur les choses dites d'accès anticipé.
[11:14] Vincent.Sylvester @hg.zetaworlds.com:8002 : D'autres lancent simplement et laissent les utilisateurs le réparer.
[11:14] Vincent.Sylvester @hg.zetaworlds.com:8002 : Effectivement, un peu plus facile avec l'open source heh
[11:14] Ubit Umarov : ne pas dire les secrets d'opensim en public vincent.Sylvester
[11:15] Ubit Umarov: errr Ooops
[11:15] Ubit Umarov: ;)

Référence nulle et suppression d'objets encore utilisés

[11:15] Ubit Umarov : alors quelles sont les nouvelles que vous avez sur opensim ?
[11:16] Vincent.Sylvester @hg.zetaworlds.com:8002 : Tu as modifié un truc de la file d'attente prioritaire
[11:16] Vincent.Sylvester @hg.zetaworlds.com:8002 : Je voulais demander de quoi il s'agissait en fait.
[11:16] Jamie.Jordan @grid.kitely.com:8002 : Bonjour à tous.
[11:16] Gavin.Hird @grid.xmir.org:8002 : Salut Jamie
[11:17] Selby.Evans @grid.kitely.com:8002 : salut Jamie
[11:17] Ubit Umarov : dans certains cas, nous avons eu des références nulles qui ont pollué le journal.
[11:17] Andrew Hellershanks : Rien à signaler cette semaine concernant le code d'OpenSim. Il y a eu deux petits changements mais il semble qu'il s'agissait juste d'un nettoyage de code interne.
[11:17] Ubit Umarov : j'ai donc ajouté des try/catch pour "cacher" cela.
[11:18] Ubit Umarov : ces références nulles arrivent parce que la main gauche d'opensim n'a aucune idée de ce que fait la droite.
[11:18] Andrew Hellershanks: :)
[11:18] Ubit Umarov : et certaines choses sont libérées pendant que l'autre les utilise.
[11:18] Ubit Umarov : comme lorsqu'un avatar disparaît.
[11:18] Vincent.Sylvester @hg.zetaworlds.com:8002 : D'où la suppression de certains verrous, je vois
[11:19] Ubit Umarov : les verrous sont un peu différents.
[11:19] Andrew Hellershanks : N'est-ce pas aussi là que les compteurs de réf. entrent en jeu ?
[11:19] Ubit Umarov : J'en ai remplacé certaines par des références à plus faible spectre.
[11:19] Ubit Umarov : quels compteurs de référence ?
[11:20] Ubit Umarov : j'adore les gens qui parlent de... eh bien de quelque part :p
[11:20] Ubit Umarov : ce genre de choses arrive aussi à cause de l'aveuglement total et du multitâche massif.
[11:21] Andrew Hellershanks : Les choses qui sont référencées comme nulles ne sont pas des objets. AFAIK, les objets sont censés avoir (ou peuvent avoir) des compteurs de ref afin que le système sache quand il est sans danger de s'en débarrasser.
[11:21] Ubit Umarov : très difficile à corriger maintenant.
[11:21] Ubit Umarov : le système ne parvient pas à les libérer.
[11:22] Ubit Umarov : et aussi contrairement aux affirmations, beaucoup de choses doivent être nettoyées à la main.
[11:22] Vincent.Sylvester @hg.zetaworlds.com:8002 : bon vieux gc
[11:22] Ubit Umarov : nous n'avons pas accès au nombre de références.
[11:22] Ubit Umarov : ce sont des choses internes.
[11:23] Ubit Umarov : j'ai ajouté plusieurs choses IsDeleted ici et là.
[11:23] Ubit Umarov : mais je ne peux toujours pas résoudre tous les problèmes, certains à cause du multitâche.
[11:23] Andrew Hellershanks : C'est vrai. Si le système doit nettoyer les objets en fonction du nombre de références, il devrait supprimer l'objet tant qu'il est encore utilisé. Si le code fait un nettoyage manuel à un ou plusieurs endroits, alors tout est perdu.
[11:24] Ubit Umarov : les choses sont là quand elles sont testées, puis elles disparaissent.
[11:24] Vincent.Sylvester @hg.zetaworlds.com:8002 : Je me demande si le fait d'être dans la pile udp est dû à des processeurs plus rapides et à des réseaux qui montrent maintenant des choses cachées par des retards dans le passé, j'ai certainement eu plus de problèmes de timing sur mon nouvel ordinateur que sur l'ancien.
[11:24] Ubit Umarov : et nous ne pouvons pas mettre des verrous partout.
[11:25] Ubit Umarov : certaines de ces choses ont commencé à apparaître quand j'ai ajouté une méthode de traitement des choses que GC ne libère jamais.
[11:25] Ubit Umarov : comme toutes les choses du framework qui ont la méthode Dispose()
[11:26] Ubit Umarov : qu'opensim n'a jamais éliminé, donc pas de références nulles visibles, bien sûr les choses sont restées là, perdues pour toujours.
[11:27] Vincent.Sylvester @hg.zetaworlds.com:8002 : Eh bien, si il élimine alors réellement et mono voodoo ne refuse pas heh  
[11:28] Ubit Umarov : comme je l'ai dit, ce changement a aussi déplacé certains verrous pour qu'ils aient un impact sur moins de code, juste celui qui en a besoin.
[11:28] Ubit Umarov : ouais GC ne parvient pas à libérer la mémoire qu'il était supposé libérer.
[11:28] Ubit Umarov : nous pouvons toujours voir une région décider d'utiliser 20GB de ram.
[11:29] Vincent.Sylvester @hg.zetaworlds.com:8002 : Je me demande si une partie de ce problème n'est pas dû au fait que le code est vieux et qu'il repose implicitement sur des délais datant de l'époque où le processeur n'était pas si puissant.
[11:29] Ubit Umarov : seulement quelques problèmes de timing ... pas ce genre de choses.
[11:29] Ubit Umarov : les téléportations sont un problème de timing.

Problèmes avec l'événement 'timer'

Les événements timer des scripts sont très imprécis sur une période donnée.

[11:29] Vincent.Sylvester @hg.zetaworlds.com:8002 : J'ai effectué quelques tests concernant la divergence des événements timer et j'ai constaté qu'elle était liée à la vitesse du processeur, ce qui est intéressant.
[11:30] Vincent.Sylvester @hg.zetaworlds.com:8002 : On pourrait potentiellement mesurer la vitesse du processeur en fonction de la vitesse à laquelle l'événement du timer ajoute une seconde.
[11:30] Ubit Umarov : mais opensim a un tas de problèmes potentiels de timing.
[11:30] Ubit Umarov : surtout en raison de son  multitâche incontrôlé.
[11:30] Ubit Umarov: design
[11:31] Ubit Umarov : je crains que sur une région occupée, les threads passent plus de temps à attendre les verrous qu'à faire des choses.
[11:31] Ubit Umarov : au moins beaucoup de temps :)
[11:32] Vincent.Sylvester @hg.zetaworlds.com:8002 : Vous ne le remarquerez pas, le viewer descendrait à des fps à un chiffre de toute façon.
[11:32] Ubit Umarov : les viewers sont encore principalement des threads uniques.
[11:32] Ubit Umarov : LL est enfin en train de déplacer certaines choses vers d'autres threads.
[11:33] Ubit Umarov : c'est le contraire de l'utilisation des multi-cœurs... ne pas les utiliser :P
[11:34] Ubit Umarov : opensim a été fait sur l'autre condition.. utiliser les cœurs que les cpus auront en 2100.
[11:34] Andrew Hellershanks : J'ai remarqué un problème de timing la semaine dernière dans l'OS lié au mouvement des keyframe.
[11:35] Andrew Hellershanks : Une séquence d'étapes qui est censée être réalisée en 64 secondes en prend plus de 68.
[11:36] Andrew Hellershanks : Je n'ai pas eu le temps de regarder le code du système d'exploitation pour avoir une idée de la raison pour laquelle il y a une différence entre le timing attendu et le timing réel.
[11:36] Vincent.Sylvester @hg.zetaworlds.com:8002 : En supposant que cela utilise probablement le même contrôle de temporisation que l'événement timer, qui a tendance à se désynchroniser assez rapidement, en particulier lorsque vous commencez à ajouter du code à l'événement lui-même.
[11:37] Andrew Hellershanks : AFAICR, dans la 0.8.2 le timing était parfait ou si proche que je n'ai pas remarqué d'écart.
[11:37] Ubit Umarov : comme je l'ai dit il y a quelques mois, j'ai refait le code entier de KFM.
[11:37] Ubit Umarov : mais sa sérialisation est incompatible avec les anciennes versions.
[11:37] Ubit Umarov : donc... yeach... en attente :P
[11:38] Vincent.Sylvester @hg.zetaworlds.com:8002 : Lorsque vous chronométrez ces choses, assurez-vous d'utiliser des flottants stricts, comme dans 3.0f et il est logique d'ajuster pour la différence de temps initiale, disons 2.97f par exemple, cela vous donne généralement de meilleurs résultats.
[11:38] Ubit Umarov : oui andrew nous savons tous que la 0.8.2 était parfaite.
[11:38] Ubit Umarov : bahh
[11:38] Vincent.Sylvester @hg.zetaworlds.com:8002 : A partir de là, vous pourrez avoir une meilleure idée de l'origine du problème.
[11:39] Vincent.Sylvester @hg.zetaworlds.com:8002 : J'ai creusé un peu dans le code du timer, je pense qu'il y a une certaine précision perdue sur une conversion de type, mais je n'ai pas eu le temps de vraiment jouer avec ça.
[11:39] Andrew Hellershanks : Vincent, que veux-tu dire par la différence de timing initial.
[11:39] Ubit Umarov : en fait, la 0.9 fait kfm, alors que la 0.8 faisait... quelque chose.
[11:40] Ubit Umarov : Peu importe.
[11:40] Ubit Umarov : déposer un mantis, dans un for que les autres peuvent repo.
[11:40] Ubit Umarov : dans un form...
[11:40] Vincent.Sylvester @hg.zetaworlds.com:8002 : Si vous exécutez disons un événement timer toutes les 3 secondes, il ne commence pas initialement à 3, mais ajoute disons 0,03 à cette valeur.
[11:40] Vincent.Sylvester @hg.zetaworlds.com:8002 : Probablement à cause du temps d'exécution du code lui-même
[11:41] Vincent.Sylvester @hg.zetaworlds.com:8002 : Lorsque vous ajustez sur cela, vous finissez par obtenir un timing plus précis pour plus longtemps.
[11:41] Vincent.Sylvester @hg.zetaworlds.com:8002 : Je suppose que cela corrige une partie de la précision perdue quelque part dans le pipe.
[11:42] Vincent.Sylvester @hg.zetaworlds.com:8002 : J'ai l'impression que si j'ajoute une sortie de débogage à l'événement timer pour voir combien de temps il prend lui-même pour s'exécuter, cela ne fera que fausser davantage les résultats.
[11:42] Ubit Umarov : certaines choses du timing ont une dérive intensionnelle.
[11:42] Ubit Umarov: intencional
[11:42] Ubit Umarov : cela s'appelle la dilatation...
[11:43] Ubit Umarov : il n'est pas comptabilisé.
[11:43] Vincent.Sylvester @hg.zetaworlds.com:8002 : OpenSim, par nature, ne tourne jamais complètement au ralenti, donc vous avez aussi une milliseconde ici ou là.
[11:44] Ubit Umarov : nous ne pouvons pas tenir compte de la dilatation du temps comme sl, aussi à cause du multitâche.
[11:44] Ubit Umarov : donc chaque partie dérive à sa façon.
[11:44] Vincent.Sylvester @hg.zetaworlds.com:8002 : C'est comme le truc des particules quantiques, dès que l'on essaie d'ajouter du code pour déboguer les choses, les résultats sont encore plus faussés.
[11:44] Ubit Umarov : sur mon nouveau KFM, tout le code est exécuté sur les battements de cœur.
[11:45] Ubit Umarov : ainsi son timing sera plus synchrone avec la pulsation de la région.
[11:46] Ubit Umarov : j'ai juste besoin de comprendre comment convertir l'ancienne vers la nouvelle sérialisation.
[11:46] Ubit Umarov : pour les passages de régions
[11:46] Vincent.Sylvester @hg.zetaworlds.com:8002 : Je te souhaite bonne chance pour cela, ça ne semble pas être une tâche des plus amusantes :)
[11:50] Andrew Hellershanks : Un supplément de 0,03 par seconde expliquerait environ la moitié de l'erreur de temps d'exécution que je vois. Je vais devoir le recalculer pour vérifier la différence réelle. Je pensais l'avoir noté sur un bout de papier près de moi mais je ne le trouve pas.
[11:51] Vincent.Sylvester @hg.zetaworlds.com:8002 : http://opensimulator.org/mantis/view.php?id=3862 C'est de cela que je parle Andrew
[11:51] Vincent.Sylvester @hg.zetaworlds.com:8002 : Des résultats intéressants dont je n'ai pas encore compris le pourquoi, mais qui m'ont aidé à comprendre certains des problèmes de timer que j'ai rencontrés.
[11:52] Vincent.Sylvester @hg.zetaworlds.com:8002 : Cela dit, comme Ubit l'a mentionné, il est préférable de ne pas compter sur l'événement timer pour la précision.
[11:52] Vincent.Sylvester @hg.zetaworlds.com:8002 : événement timer, seulement légèrement plus précis que votre horloge personnelle.lol
[11:52] Ubit Umarov : la précision de l'heure des hommes ne s'applique pas aux PC.
[11:52] Ubit Umarov : sauf sur les périphériques spéciaux du noyau.
[11:53] Andrew Hellershanks : Vincent, cela semble similaire au problème que j'ai.
[11:53] Ubit Umarov : c'est pourquoi un contrôleur de voiture ne fonctionne pas sous windows ou linux.
[11:53] Gavin.Hird @grid.xmir.org:8002: lol
[11:53] Ubit Umarov : ( l'affichage peut.. ofc )
[11:54] Ubit Umarov : et il y a aussi des versions RTOS de linux.
[11:54] Gavin.Hird @grid.xmir.org:8002 : n'avez-vous pas vu le logo de Windows XP lors du crash du contrôleur de la voiture Tesla ?
[11:54] Ubit Umarov : XP toujours ?
[11:54] Vincent.Sylvester @hg.zetaworlds.com:8002 : qu'est-ce que le temps, juste un concept, tout ce qu'il fait c'est vous rendre vieux :)
[11:54] Ubit Umarov : mais je parie que c'est sur les appareils de l'interface utilisateur.
[11:54] Gavin.Hird @grid.xmir.org:8002 : Je l'ai au moins vu sur les ATM.
[11:54] Andrew Hellershanks : Je pourrais compenser en ajustant le temps de cycle mais cela devient un problème quand on ne sait pas si une grille a fait quelque chose dans son code pour résoudre ce problème. Si c'est le cas, le correctif nécessaire pour une grille pourrait perturber les choses dans une autre.
[11:54] Gavin.Hird @grid.xmir.org:8002 : très récemment.
[11:55] Vincent.Sylvester @hg.zetaworlds.com:8002 : huh par ici ils les font juste exploser dernièrement.
[11:55] Ubit Umarov : ( par contrôleur je ne voulais pas dire les choses de l'interface utilisateur des voitures... mais les choses de bas niveau OC ECC etc.
[11:56] Ubit Umarov : voir par exemple
[11:56] Ubit Umarov : un framework (même un timer win32)
[11:56] Ubit Umarov : ce qu'il fait est de mettre sur le pool de travail des threads une demande d'exécution du code d'événement du timer.
[11:57] Ubit Umarov : "Un jour, quand il y aura un fil de discussion libre pour le faire.
[11:58] Ubit Umarov : cela ajoute juste un retard de plusieurs ms (au moins 15 sous Windows).
[11:58] Vincent.Sylvester @hg.zetaworlds.com:8002 : Si vous voulez vous amuser avec la synchronisation, changez simplement votre source d'horloge de tsc à hpet, mais sauvegardez d'abord vos données.
[11:59] Andrew Hellershanks : Wow. Cette heure est passée très vite aujourd'hui. Est-ce que quelqu'un voulait parler d'un autre sujet avant de conclure ?
[11:59] Ubit Umarov : bien et c'est une différence entre les consoles de jeux et les PC.
[11:59] Ubit Umarov : ( ou devrait l'être..)

Miniatures de carte (map tiles)

[11:59] Gavin.Hird @grid.xmir.org:8002 : il y a eu beaucoup de discussions sur les miniatures des cartes. [12:00] Gavin.Hird @grid.xmir.org:8002 : stockage dans la base de données. [12:00] Ubit Umarov : le stockage dans la base de données est en fait obsolète. [12:00] Andrew Hellershanks : N'oubliez pas la conférence de la communauté Open Simulator qui aura lieu la fin de semaine du 11 et 12 décembre. Assurez-vous de marquer vos calendriers. [12:00] Ubit Umarov : au moins pour l'utilisation des viewers. [12:00] Gavin.Hird @grid.xmir.org:8002 : quelqu'un a suggéré un script élaboré pour les effacer, mais il suffit d'une simple requête SQL. [12:00] Ubit Umarov : Elles sont nettoyées à chaque redémarrage de région. [12:01] Ubit Umarov : bien sûr, pas pour les régions mortes :) [12:01] Ubit Umarov : mais le problème est aussi sur le disque de service de la carte. [12:01] Ubit Umarov : et ce n'est PAS facile. [12:01] Ubit Umarov : on ne peut pas y aller et simplement supprimer les fichiers de la région. [12:02] Gavin.Hird @grid.xmir.org:8002 : non ? [12:02] Vincent.Sylvester @hg.zetaworlds.com:8002: delete all terrainImage_% pretty much yeah, but if you store assets in files you need to find the files and remove those as well, which is not as easy and then you still have the issue of the different map tile scales which can only be altered when new tiles are submitted, there is no "cut this one out" [12:02] Ubit Umarov: bc map tiles have levels [12:02] Ubit Umarov: high resolution is a region tile [12:02] Ubit Umarov: less is a image made of 4 regions [12:02] Ubit Umarov: less.. etc [12:02] Ubit Umarov: don't remember how many levels [12:02] Gavin.Hird @grid.xmir.org:8002: I just cleaned out 2 years of tiles [12:02] Vincent.Sylvester @hg.zetaworlds.com:8002: I did write some code to upload "water" on shutdown, but that doesn't work so well because the maptile scales are created async to the upload [12:03] Gavin.Hird @grid.xmir.org:8002: shrank the Db by about 8 GB [12:03] Ubit Umarov: that is heavy code actually [12:03] Ubit Umarov: to rebuild all those zoom level tiles [12:03] Vincent.Sylvester @hg.zetaworlds.com:8002: Yes maptiles are created, not updated in db, so regularly cleaning needs to be done [12:04] Vincent.Sylvester @hg.zetaworlds.com:8002: I have some internal code that talks to regions to request new tiles after I nuke them all, but oh boy does that give Robust a workout [12:04] Ubit Umarov: again the ones on DBs as assets are old ones for old v1 viewers [12:04] Ubit Umarov: ( thing we do use them elsewhere also) [12:04] Vincent.Sylvester @hg.zetaworlds.com:8002: yes [12:04] Ubit Umarov: the ones viewers use on map are the more complex ones i just told about [12:05] Vincent.Sylvester @hg.zetaworlds.com:8002: It's a mess and not easy to figure out a good solution to resolve either [12:05] Ubit Umarov: every time we change one region we need to process several images [12:05] Vincent.Sylvester @hg.zetaworlds.com:8002: ... and there is worse garbage collecting in the db as well [12:05] Ubit Umarov: for all those zoom levels [12:05] Ubit Umarov: you casn see the code on the mapservice [12:06] Ubit Umarov: the assets are easy problem [12:06] Ubit Umarov: or easier [12:06] Vincent.Sylvester @hg.zetaworlds.com:8002: I mean uploading water on shutdown "works" to clear the levels, but in turn that creates more database mess [12:07] Vincent.Sylvester @hg.zetaworlds.com:8002: And robust needs them to create the scales so cannot delete them immediately either [12:07] Ubit Umarov: well to suport something like that, one should just use a fixed map asset [12:07] Ubit Umarov: not upload a new water one [12:08] Vincent.Sylvester @hg.zetaworlds.com:8002: Yep [12:08] Ubit Umarov: but several grids do want regions on map een if down [12:09] Ubit Umarov: in fact on several grids like kitely regions are normaly down until someone goes there [12:09] Ubit Umarov: including from click on map :) [12:09] Vincent.Sylvester @hg.zetaworlds.com:8002: A good solution would be Robust regularly going through the list of regions and requesting new tiles, if none are given it assumes water and rebuilds, but that would put a huge burden on it [12:09] Ubit Umarov: se not even easy to define When to clear map tiles [12:09] Vincent.Sylvester @hg.zetaworlds.com:8002: Plus teaching Robust to anything with "regularity" is... fun... [12:10] Ubit Umarov: easy grid can have own needs [12:10] Ubit Umarov: so manual is a solution for now :) [12:11] Andrew Hellershanks: I have sometimes wondered whether there should be some external program to handle maptile generation. That would likely have its own issues. [12:11] Vincent.Sylvester @hg.zetaworlds.com:8002: Ultimately the desire is there for removal given there exist beginnings of code in that direction and it is good programming standard to make sure a piece of software doesn't create massive amounts of orphaned data [12:11] Vincent.Sylvester @hg.zetaworlds.com:8002: But yeah definition thing [12:12] Vincent.Sylvester @hg.zetaworlds.com:8002: Also some of this code on actual maptile handling is... crude... [12:13] Vincent.Sylvester @hg.zetaworlds.com:8002: If you ever seen var regions not have proper tiles just a single region one instead, that's down to some quirk with throttling of the requests it seems, but beats me as to why, removed all incoming rejection things on Robust and it still happens [12:13] Ubit Umarov: well on creating a new map, code does delete the old map asset [12:13] Ubit Umarov: but osgrid does enforce that assets are never deleted, so they stay there :p [12:13] Gavin.Hird @grid.xmir.org:8002: for the version 1 tiles uploaded to the db, it should be possible to create a trigger that zaps the previous record of the same on upload of a new [12:14] Ubit Umarov: in fact we do get a error now with osgrid refusal to delete the asset :) [12:15] Ubit Umarov: ( other grids also.. bc assets services does impose blind rule that assets are never deleted ) [12:15] Vincent.Sylvester @hg.zetaworlds.com:8002: Which is fun ;) [12:16] Ubit Umarov: well it is a rule [12:16] Ubit Umarov: i many cases a nice security thing [12:16] Ubit Umarov: (disk crashes do delete the assets :P ) [12:16] Gavin.Hird @grid.xmir.org:8002: till it is not [12:17] Ubit Umarov: we are luck disks sizes kept growing [12:17] Ubit Umarov: for identical costs [12:18] Gavin.Hird @grid.xmir.org:8002: while they put in inferior components for the same price [12:18] Ubit Umarov: even so some grids did delete assets [12:18] Gavin.Hird @grid.xmir.org:8002: or change the encoding scheme without telling anyone [12:18] Ubit Umarov: gavin that is called making business [12:18] Gavin.Hird @grid.xmir.org:8002: making monkey business [12:18] Vincent.Sylvester @hg.zetaworlds.com:8002: Backups still a headache with the size and file count, forget versioning on any reasonable scale [12:18] Andrew Hellershanks: hehe [12:19] Ubit Umarov: business is the art of legally stealing :p [12:19] Andrew Hellershanks: Vincent, that is another issue. [12:19] Vincent.Sylvester @hg.zetaworlds.com:8002: 2 million assets into git is the best fireworks I have seen lately [12:19] Gavin.Hird @grid.xmir.org:8002: why would you do that? [12:20] Vincent.Sylvester @hg.zetaworlds.com:8002: To see what would happen [12:20] Andrew Hellershanks: Vincent, ouch [12:20] Vincent.Sylvester @hg.zetaworlds.com:8002: I spent two days digging in nunit tests I'm allowed some fun lol [12:20] Andrew Hellershanks: :) [12:21] Cuga.Rajal @rajal.org:9000: Probably not relevant to anyone here, but if your DB is small enough you can clean quite a bit of assets with https://grimore.org/opensim/database/asset_cleaner [12:22] Gavin.Hird @grid.xmir.org:8002: I keep autovacuum on for postgres [12:22] Gavin.Hird @grid.xmir.org:8002: it does not clear all, but it zaps quite a bit of old records [12:22] Cuga.Rajal @rajal.org:9000: yes [12:23] Ubit Umarov: on that.. nothing can delete orphaned assets just because is near impossible to detect them [12:23] Gavin.Hird @grid.xmir.org:8002: it never clears anything in assets [12:23] Gavin.Hird @grid.xmir.org:8002: because as you say, it is impossible for it to know if they are redundant or not [12:23] Andrew Hellershanks: Detecting orphaned assets is not a trivial task. [12:24] Gavin.Hird @grid.xmir.org:8002: unless you have explicitly deleted records, then it clears up the debris and shrinks the db szie [12:24] Ubit Umarov: we can't scan other assets, inventories or regions ( that may be down) to find references to assets [12:24] Vincent.Sylvester @hg.zetaworlds.com:8002: Even knowing where to look, that's still a lot of places to check and that means te queries get heavy very quickly [12:24] Gavin.Hird @grid.xmir.org:8002: like it did today when I deleted 12000 maptiles [12:24] Andrew Hellershanks: Asset references could be buried in rezzer or scripts. [12:24] Ubit Umarov: map tiles are easy [12:25] Gavin.Hird @grid.xmir.org:8002: yeah [12:25] Ubit Umarov: they have a specific asset type [12:25] Vincent.Sylvester @hg.zetaworlds.com:8002: script generated notecards... there's a horror movie for ya [12:25] Gavin.Hird @grid.xmir.org:8002: which type is that? [12:25] Ubit Umarov: map [12:25] Ubit Umarov: lol [12:25] Gavin.Hird @grid.xmir.org:8002: asset type in the asset table is a number [12:26] Selby.Evans @grid.kitely.com:8002: must go -- bye all [12:26] Gavin.Hird @grid.xmir.org:8002: bye Selby [12:26] Vincent.Sylvester @hg.zetaworlds.com:8002: Just apply nuke to terrainImage_% works too lol [12:26] Gavin.Hird @grid.xmir.org:8002: it does [12:26] Ubit Umarov: oops not type [12:27] Andrew Hellershanks: Bye Selby. [12:27] Vincent.Sylvester @hg.zetaworlds.com:8002: I mean if you name your texture that I'll throw coffee beans at you lol [12:27] Andrew Hellershanks: hehe [12:28] Ubit Umarov: it is assetFlags [12:28] Ubit Umarov: public enum AssetFlags : int

   {
       Normal = 0,         // Immutable asset
       Maptile = 1,        // What it says
       Rewritable = 2,     // Content can be rewritten
       Collectable = 4,     // Can be GC'ed after some time
   }

[12:28] Andrew Hellershanks: Almost half past now. Any other final comments before I close this meeting? [12:28] Jamie.Jordan @grid.kitely.com:8002: have a great day yall [12:28] Andrew Hellershanks: Bye, Jamie. [12:28] Ubit Umarov: something sadly broken [12:29] Ubit Umarov: but it is there on the dbs [12:29] Gavin.Hird @grid.xmir.org:8002: ok, good to know [12:29] Andrew Hellershanks: I wonder how often assets are created when you are editing a script. [12:29] Gavin.Hird @grid.xmir.org:8002: so it is not updated correct= [12:30] Ubit Umarov: in fact used to allow deletes [12:30] Ubit Umarov: if (m_allowedTypes == AllowedRemoteDeleteTypes.All

                           || (int)(asset.Flags & AssetFlags.Maptile) != 0)
                       {
                           result = m_AssetService.Delete(assetID);
                       }

[12:30] Vincent.Sylvester @hg.zetaworlds.com:8002: You don't wanna know the mess it makes Andrew, it makes you want to pull your hair out [12:30] Ubit Umarov: on some asset services that had not forgotten this ( like new osgrid one ) [12:31] Gavin.Hird @grid.xmir.org:8002: looks like all my maptiles have flag set to 1 [12:31] Andrew Hellershanks: Vincent. :) There are times I think it should be able to update an existing asset when you make a change. Other times it would need to create a new asset. Knowing which can be done when is not easy. [12:31] Ubit Umarov: wlel it should be a bitthing [12:31] Ubit Umarov: but its use is kinda broken [12:31] Ubit Umarov: bad born code :( [12:31] Cuga.Rajal @rajal.org:9000: I should head out too.. Take care everyone [12:32] Ubit Umarov: but should work on maps [12:32] Jagga Meredith: quick question. Got a grid. DSTZone = "America/Los_Angeles;Pacific Standard Time" but clock is 8 hours ahead. ideas? [12:32] Gavin.Hird @grid.xmir.org:8002: if writing the flag is correct it can be sued for zapping tiles [12:32] Andrew Hellershanks: ok, Cuga. Thanks for dropping by. [12:32] Gavin.Hird @grid.xmir.org:8002: you can be sued for zapping tiles... [12:33] Gavin.Hird @grid.xmir.org:8002: Cheers Cuga [12:33] Andrew Hellershanks: Jagga, sounds like something is set for GMT/UTC time or some function is using the wrong time routine. [12:33] Vincent.Sylvester @hg.zetaworlds.com:8002: I dread, but I gotta keep digging into the data structures at some point [12:33] Jagga Meredith: ok [12:34] Andrew Hellershanks: Jagga, where is that DSTZone thing set? I don't recognize that as the way to set timezone. I usually set it at the system level and not in a shell script before running a program. [12:36] Andrew Hellershanks: Jagga, check how the timezone has bee set on the system. See what you get when you type 'date' in a terminal window. [12:37] Andrew Hellershanks: I need to get going so I'll close this meeting for today. [12:37] Andrew Hellershanks: Thank you all for coming. See you again next week.